Ông sinh tháng 12 năm 1942[3], quê tại xã Bích Sơn, huyện Việt Yên, tỉnh Bắc Giang. Thân sinh của ông là liệt sỹ Nguyễn Văn Bảy, Chủ tịch Mặt trận Việt Minh huyện Việt Yên, Bắc Giang, bị quân Pháp giết chết vào năm 1947.

Năm 1961, khi đang học lớp 8, trường Ngô Sĩ Liên tại thị xã Bắc Giang, ông trúng tuyển kỳ thi chọn đào tạo phi công. Ông nhập ngũ và được đưa đi huấn luyện tại Trường dự khóa bay ở sân bay Cát Bi (Hải Phòng)[4]. Tháng 8 năm 1962, ông cùng đoàn huấn luyện phi công 120 người sang đào tạo tại Trường Không quân ở Liên Xô.

Tháng 11 năm 1964, ông là một trong 17 phi công MiG-17 trong tổng số 23 phi công tốt nghiệp khóa đào tạo[5]. Sau khi về nước, ông được phiên chế về Đại đội 1, Trung đoàn 921 (Đoàn Không quân Sao Đỏ). Nhưng không lâu sau, lại được chọn để đi học chuyển loại máy bay MiG-21 ở Liên Xô một năm. Ông được kết nạp Đảng Lao động Việt Nam năm 1966, khi đang học tại Liên Xô. Ông trở lại về đoàn Sao Đỏ vào đầu năm 1967.

Trong đội hình biên đội MiG-21 hai chiếc, ông được phân công ở vị trí số 2 với mục đích bảo vệ cho số 1 tiêu diệt đối phương. Ngày 30 tháng 4 năm 1967, ông xuất kích trong biên đội do phi công Nguyễn Ngọc Độ (cũng là một ace của Việt Nam) làm biên đội trưởng. Trận không chiến diễn ra với các máy bay F-105 Thunderchief trên bầu trời Hòa Bình, Sơn La. Gặp thời cơ thuận lợi, sau khi biên đội trưởng bắn hạ một F-105, ông cũng chớp thời cơ bắn hạ thêm một chiếc F-105 nữa. Cả hai chiếc MiG đều về an toàn. Đây là chiếc máy bay đầu tiên ông bắn hạ, mở đầu cho thành tích của người phi công trong các cuộc không chiến trên bầu trời Bắc Việt Nam.

Theo nguyên tắc chiến thuật phi đội hai chiếc của MiG-21, số 2 chỉ có nhiệm vụ yểm trợ, quan sát đối phương giúp cho số 1 vào công kích. Nguyễn Văn Cốc cải tiến chiến thuật, cùng tham gia tiêu diệt máy bay đối phương, do đó, hiệu suất phi đội tăng lên. Trước kia do chỉ có số 1 công kích, tối đa phi đội chỉ bắn hạ được 2 máy bay đối phương (vì MiG-21 chỉ mang được 2 tên lửa). Theo chiến thuật cải tiến, phi đội của ông cao điểm có thể bắn hạ được 3 máy bay đối phương. Để đạt được điều này, số 2 phải phán đoán và hành động chớp thời cơ rất nhanh. Do chiến thuật cải tiến này, ông được đồng đội đặt cho biệt danh là Chim cắt số 2.

Với sự sáng tạo chiến thuật trong không chiến, chỉ riêng trong năm 1967, ông đã bắn rơi 6 máy bay đối phương. Trong tổng số 9 chiếc, có 6 chiếc ông bắn hạ khi bay ở vị trí số 2. Từ đó, chiến thuật do ông sáng tạo được đưa vào nội dung huấn luyện và thực tiễn đã mang lại kết quả tốt, giúp không quân Việt Nam nâng cao hiệu suất chiến đấu trong một thời gian dài, khiến cho các phi công Mỹ cũng khâm phục.

Ngày 18 tháng 6 năm 1969, ông được tuyên dương Anh hùng Lực lượng Vũ trang Nhân dân Việt Nam, với thành tích bắn hạ 9 máy bay Mỹ chỉ trong 2 năm. Trên chiếc MiG-21 PF, số máy bay ông bắn hạ được phía Việt Nam công bố gồm 11 chiếc, trong đó có 3 F-4, 5 F-105, 1 chiếc F-102 và 2 máy bay trinh sát không người lái. Phía Mỹ thì thừa nhận số máy bay bị ông bắn hạ gồm 9 chiếc, trong đó có 2 F-4D, 1 F-4B, 2 F-105F, 1 F-105D, 1 F-102A và 2 chiếc UAV trinh sát. Trong toàn bộ các cuộc không chiến trên bầu trời Bắc Việt Nam, ông có số bắn hạ máy bay cao nhất của cả Việt Nam và Mỹ. Ngoài ra, ông còn hỗ trợ đồng đội bắn hạ thêm 9 máy bay nữa. Khi đó, ông mới vừa 27 tuổi, hàm Đại úy Không quân.

Ông từng phải nhảy dù hai lần. Một lần vào ngày 2 tháng 1 năm 1967, trong chiến dịch Bolo, ông bị bắn rơi khi vừa cất cánh do thiếu kinh nghiệm và chưa kịp phản ứng trước đối phương (trong trận này, phía Việt Nam bị bắn hạ 6/8 MiG-21 khi chưa kịp phát hiện đối phương. Cả sáu phi công kịp thời nhảy dù an toàn. Phía Mỹ không mất một chiếc nào) [cần dẫn nguồn]. Một lần khác ông phải bắt buộc nhảy dù sau khi máy bay hết dầu lúc không chiến. Tháng 8 năm 1970, ông là Đại đội phó Đại đội 1, Trung đoàn Không quân 921.

Sau năm 1970, ông được yêu cầu chuyển sang làm công tác huấn luyện cho các phi công mới. Điều này cũng phù hợp với quy hoạch phát triển đội ngũ các phi công xuất sắc (flying ace) của không quân Việt Nam. Cùng thời gian này, phi công MiG-17 Nguyễn Văn Bảy (còn gọi là Bảy A), cũng được chuyển sang làm công tác huấn luyện.